IX Jornadas Nacionales de Investigación en Ciberseguridad - JNIC 2024, Seville (Spain). 27-29 May 2024
Summary:
En este artículo se muestra el comportamiento de varios asistentes personales (Smart Personal Assistants, SPAs) en diversos aspectos relativos a la seguridad y a la privacidad. Los asistentes personales se pueden entrenar con la voz del propietario, y los rasgos de la voz actúan como contraseña de acceso. Sin embargo, se ha querido analizar qué información llegan a desvelar diferentes asistentes personales sin verificar la voz del propietario y qué riesgos reales existen de suplantar la voz del propietario. Para ello se ha definido un protocolo de ensayos que incluye comandos para solicitar información genérica, solicitudes de información personal, y solicitudes más delicadas como realizar llamadas o realizar compras. Para ensayar distintos tipos de voz participaron varias personas, se hicieron grabaciones de voz y se utilizaron herramientas de generación de voz sintética. Con objeto de engañar a los asistentes personales, se han realizado ensayos con diversos sistemas de IA generativa para crear modelos de voz basados en el usuario registrado en los asistentes, de esta manera se han podido generar sintéticamente comandos con los rasgos de voz de dicha persona. En este estudio se ha trabajado con los asistentes Apple HomePod, Amazon Alexa y Google Home, que son los principales dispositivos del mercado.
Se ha podido comprobar qué tipo de información comunica cada sistema sin realizar la validación al usuario y se ha podido comprobar cómo de precisa es la verificación de la voz del usuario (comando de activación) en función de los modelos de IA generativa utilizados.
Keywords: Privacidad, IA Generativa, Clonación de voz, Inteligente asistente personal; Privacy, Generative AI, Voice cloning, Smart Personal Assistant
Publication date: 2024-05-27.
Citation:
C. Palacios-Castrillo, R. Palacios, R. Gesteira-Miñarro, G. López, Security and privacy analysis of personal assistants with real voices and synthetic voices, IX Jornadas Nacionales de Investigación en Ciberseguridad - JNIC 2024, Seville (Spain). 27-29 May 2024.
